Scaling Laws For Data-Constrained Dense Retrieval
数据受限稠密检索的缩放律与算力分配
🧭 数据受限 Dense Retrieval 的 scaling law ★ 深度解读
Tsinghua Shenzhen International Graduate School · Xi'an Jiaotong University
提出 MAEL 作为数据受限微调的稳定目标，拟合乘法 scaling law 并量化模型规模相对数据规模的计算效率优势
📌 工作参考价值（4 点）
- 在标注/点击数据受限且重复多 epoch 的检索召回微调中，用 MAEL（训练期间最低 eval loss）替代固定 step 的 eval loss 做模型选择与资源分配；它对学习率不敏感，且与 MRR@10、Recall@100 等线上指标高度相关（Pearson ≤ -0.985），适合小规模网格外推。
- 学习率主要改变到达 MAEL 的步数而非最终最低 loss：scaled step = step × lr / (2e-5) 可对齐曲线。工程上可以先小网络扫学习率确定收敛速度，不必为每个配置重跑大搜索。
- 资源分配：在 5K-320K 唯一样本、BERT-Tiny→Base 的数据受限 regime 下，增加预训练模型大小比增加唯一 in-domain 标注数据约 1.46 倍更 fine-tuning compute 高效；若模型容量受线上延迟/部署限制，再补唯一数据。
- Weight decay 调参：不要固定 λ，改用 EMA timescale τ_epoch = B / (η λ U) 作为不变尺度；数据减半时 weight decay 翻倍，常能降低 MAEL 并提升 in-domain 与 BEIR OOD 检索指标。